Sau khi chiến tranh kết thúc, Balck gia nhập một tiểu đoàn biệt kích tình nguyện. Được giữ lại phục vụ trong Lực lượng Phòng vệ Quốc gia của Cộng hòa Weimar, ông ở lại binh chủng bộ binh và lãnh chức sĩ quan phụ tá một tiểu đoàn trong Trung đoàn Bộ binh 20. Sau đó, ông đổi sang làm sĩ quan phụ tá Tiểu đoàn Biệt kích III Brunswick-Tây Phổ thuộc Trung đoàn Bộ binh 17 đóng tại Celle từ năm 1920 đến năm 1921. Kế đến, ông làm sĩ quan tham mưu và huấn luyện trong trung đoàn từ năm 1921 cho tới năm 1924. Sau khi lên quân hàm Trung úy, ông chuyển sang Trung đoàn Kỵ binh 18 đóng tại Cannstatt (gần Stuttgart) vào cuối năm 1924. Tại đây, ông dẫn đầu một trung đội súng máy từ năm 1925 đến năm 1928, sau đó chỉ huy một khối kỵ binh trong giai đoạn 1928 – 1933 và được gắn lon Đại úy kỵ binh (Rittmeister) vào năm 1929. Ngay từ thời gian này, ông đã nhận thức rõ sự ưu việt của chiến tranh cơ giới và trở thành một trong những người đầu tiên chủ trương cơ giới hóa quân đội Đức.[4][6]

Vào thập niên 1930, Balck từng hai lần công tác tại Bộ Tổng tham mưu và hai lần được đề bạt làm sĩ quan bộ này nhưng ông đều khước từ vì ưu tiên làm sĩ quan tác chiến.[3][7] Cũng như hai tên tuổi lớn khác trong ngành thiết giáp Đức sau này là Erwin Rommel và Heinz Guderian, Balck áp dụng trường phái "chỉ huy từ tuyến đầu" trong chiến đấu (Führen von vorn). Không chỉ giúp người chỉ huy dễ nắm bắt, khai thác tình hình chiến thuật và thu được hiệu quả tác chiến cao nhất, phương pháp này còn đem lại lợi thế to lớn trên khía cạnh tâm lý. Cụ thể, trong tình huống nguy khốn, sự hiện diện của một tư lệnh cấp cao ngoài tiền tuyến luôn là nguồn động lực ngăn chặn sự rối loạn hàng ngũ và thôi thúc quân sĩ tiếp tục chiến đấu.[8][9]

Trong 6 năm đầu cầm quyền của chế độ Hitler, Balck được thăng cấp thiếu tá năm 1935 rồi lên lon thượng tá năm 1938. Cũng vào giai đoạn này, ông làm sĩ quan tham mưu cho Sư đoàn Bộ binh số 3 tại Frankfurt an der Oder trong một thời gian ngắn và chỉ huy Tiểu đoàn Xe đạp số 1 tại Tilsit, Đông Phổ (nay là Sovetsk, Liên bang Nga) từ năm 1935 cho đến năm 1938.[10][4] Tiếp theo đó, ông được chuyển sang Ban Thanh tra Quân Cơ động (thiết giáp, bộ binh cơ giới và kỵ binh) thuộc Bộ Tư lệnh Tối cao ở Berlin do Thiếu tướng Heinz Guderian cầm đầu vào ngày 24 tháng 11 năm 1938. Balck đã hình thành một mối quan hệ lâu dài và hữu hảo với thủ trưởng của mình.[5][11][7]